Tema: Umetna inteligenca in vojaška varnost

»Nikoli nismo izvedli tega poskusa, niti nam ne bi bilo treba, da bi ugotovili, da je to verjeten rezultat.«

»Kaj je torej naredil? Ubil je operaterja. Operaterja je ubil, ker mu je ta oseba preprečila izpolnitev cilja.«

»Sistem smo naučili: 'Hej, ne ubij operaterja, to je slabo. Če to storiš boš izgubil točke.' Kaj je začel delati? Začel je uničevati komunikacijski stolp, ki ga operater uporablja za komunikacijo z brezpilotnim letalnikom, da mu prepreči ubijanje tarče.«

»Lahko gre za vojsko, lahko za teroriste, lahko za nekoga izjemno jeznega in psihotičnega. Če je preprosto programirati sisteme tako, da naredijo nekaj zelo slabega, je to lahko zelo nevarno.«

»Pri računalnikih za krmiljenje letal je treba skrbeti za dve stvari: 'naredi pravo stvar' in 'ne delaj napačne stvari'. Gre za klasični primer zadnjega.«